Uzņēmumi, kas izmanto fotogrāfijas vai audio identitātes verifikācijai, sagatavojas riskiem, ko rada ar ģeneratīvo MI radītas mānības. Deepfakes jeb mākslīgi radīti bildes vai video, kas izskatās pārsteidzoši reāli, jau kādu laiku ir aktualitāte sociālajos medijos, vēlēšanās un publiskajā sektorā.
Tomēr ar tehnoloģijas attīstību, kas izmanto mākslīgo intelektu, lai atdarinātu balsis un attēlus realistiskāk nekā jebkad, krāpnieki ar Deepfake tehnoloģiju tagad mērķē arī uz uzņēmumiem. "Vienmēr ir bijuši krāpnieciski zvani. Taču šo [mākslīgā intelekta] modeļu spēja atdarināt kādas personas patiesos balss modeļus tā, lai viņi varētu pa telefonu dot norādījumus kaut ko darīt – šāda veida riski ir pilnīgi jauni," saka Bills Kassidijs, galvenais informācijas virsnieks kompānijā "New York Life".
Bankas un finanšu pakalpojumu sniedzēji ir starp pirmajiem krāpnieku mērķiem. Kails Keppels, KPMG ASV vadītājs kibernoziegumu jomā, uzsver, ka šī nozare attīstās ļoti strauji. Vien no ātras attīstības piemēriem ir nesenā OpenAI tehnoloģijas prezentācija, kas var atdarināt cilvēka balss izklausīšanos no 15 sekunžu garas ieraksta. OpenAI paziņoja, ka tehnoloģiju nepadara publiski pieejamu, kamēr netiek vairāk uzzināts par iespējamību to ļaunprātīgi izmantot.
Bažas ir, ka krāpnieki varētu izmantot KI ģenerētas audiofailus, lai apmānītu finanšu pakalpojumu sniedzēju lietotu balss autentifikācijas programmatūru klientu pārbaudei, tādējādi iegūstot piekļuvi viņu kontiem. Nesen Chase Banku apmānīja KI ģenerēta balsis. Tomēr banka paziņoja, ka klientiem par darījumiem un citiem finanšu pieprasījumiem jāsniedz papildu informācija.
Deepfake incidenti FinTech sektorā 2023. gadā salīdzinājumā ar iepriekšējo gadu pieauguši par 700%, liecina identitātes verifikācijas platformas Sumsub jaunākais ziņojums. Uzņēmumi strādā pie papildu drošības pasākumu ieviešanas, gatavojoties uzbrukumu viļnim, ko vada generatīvā MI.
Kesidijs piemēram sadarbojas ar Ņujorkas Dzīves riska kapitāla grupu, lai identificētu start-upus un jaunās tehnoloģijas, kas paredzētas cīņai ar deepfake. Aleks Kariles, Simmons Bankas Galvenais Digitālais Direktors, maina dažas identitātes pārbaudes protokolus. Iepriekš tas ietvēra klientu autovadītāju apliecību foto augšupielādi. Tomēr, tagad, kad apliecību bildes var viegli ģenerēt ar mākslīgo intelektu, banka sadarbojas ar drošības nodrošinātāju IDScan.net, lai uzlabotu procesu. Vietā, kur klienti augšupielādēja esošo attēlu, tagad viņiem ir jāfotografē savi autovadītāju apliecības caur bankas aplikāciju un jāuzņem arī selfiji.
Ne visas bankas redz tuvāku briesmu. Ejmi Breidija, KeyBank galvenā informācijas ierēdne, saka, ka viņas banka tehnoloģiski atpalikusi no runas autentifikācijas programmatūras ieviešanas. Apzinoties risku, ko rada deepfake tehnoloģijas, viņa ar atskatu uz to raugās kā uz laimīgu sakritību. Breidija norāda, ka aptur runas autentifikācijas programmatūras ieviešanu, līdz nebūs pieejami labāki rīki viltojumu atmaskošanai. "Dažreiz noder būt par lēniem," viņa teica.
